Nguồn gốc cấp bậc này xuất phát từ tổ chức của các hải đoàn thuyền buồm kinh doanh vượt đại dương, về sau phát triển thành hệ thống cấp chỉ huy của Hải quân Hoàng gia Anh quốc. Theo đó, mỗi một Hải đoàn sẽ được giao phó cho một Đô đốc chỉ huy. Vị Đô đốc sẽ chỉ huy từ chiến thuyền giữa đoàn và điều hành các hoạt động của hải đoàn. Một vị Đô đốc khác sẽ giúp đỡ vị Đô đốc chính chỉ huy các chiến thuyền đi đầu, vốn là những chiến thuyền sẽ chịu đựng mũi dùi của một cuộc tấn công trên biển. Vị này được xếp sau vị Đô đốc chính nên được gọi là Phó Đô đốc (Vice Admiral). Phía sau của hải đoàn, một Đô đốc thứ ba sẽ chỉ huy các chiến thuyền còn lại và vì phần phía sau của hải đoàn được xem là ít nguy hiểm nhất nên vị đô đốc chỉ huy ở phía sau thường là vị đô đốc cấp bậc thấp nhất trong số các đô đốc của hải đoàn. Việc này tồn tại cho đến thời hiện đại, cấp bậc "rear admiral" (đô đốc phía sau) là cấp bậc đầu tiên thấp nhất trong các cấp bậc Đô đốc (Phó Đô đốc, Đô đốc, Thủy sư Đô đốc) mà tiếng trong tiếng Việt gọi là Chuẩn Đô đốc.

Thông thường, quân hàm này tương đương cấp bậc thiếu tướng, hay tướng 2 sao của hải quân. Trong Hải quân Nhân dân Việt Nam hiện nay, từ năm 1981, danh xưng Chuẩn Đô đốc được quy định dùng cho hàm Thiếu tướng Hải quân với 1 sao.